随机变量的独立性

事件的独立性：事件 A、B 满足 $P (A B) = P (A) (B)$ ，则称事件 A、B 统计独立，简称独立

$(X, Y)$ 二维随机变量的二维分布函数如下

联合分布函数为：

\begin{array}{r} F (x, y) = P {X \leq x, Y \leq y} \end{array}

边缘分布函数为：

\begin{aligned} F_{X} (x) & = P {X \leq x, Y < + \infty} = F (x, + \infty) \\ F_{Y} (y) & = P {X \leq + \infty, Y < y} = F (+ \infty, y) \end{aligned}

如果对于任意的 $(x, y)$ 有：

\begin{array}{r} F (x, y) = F_{X} (x) \cdot F_{Y} (y) \end{array}

联合分布函数等于边缘分布函数之积，则称 $X, Y$ 为互相独立的随机变量

$(X, Y)$ 为二维离散型随机变量， $X, Y$ 相互独立的充分必要条件：

p_{i j} = p_{i \cdot} p_{\cdot j}

$(X, Y)$ 为二维连续型随机变量， $X, Y$ 相互独立的充分必要条件：

\begin{array}{r} f (x, y) = f_{X} (x) f_{Y} (y) \end{array}

离散情形中，独立性可写成联合概率矩阵的逐项分解：

p_{i j} = p_{i} P_{j} .

代入协方差公式后，

σ_{12} = \sum_{i} \sum_{j} p_{i} P_{j} (x_{i} - m_{1}) (y_{j} - m_{2}) = (\sum_{i} p_{i} (x_{i} - m_{1})) (\sum_{j} P_{j} (y_{j} - m_{2})) = 0.

所以独立变量一定零协方差。连续情形中，若 $x, y$ 独立，则联合密度直接相乘 $p (x, y) = p_{1} (x) p_{2} (y)$ ，协方差矩阵为对角矩阵。对联合正态变量，零协方差还足以推出独立；但在一般分布中，零协方差只排除了线性相关。